iT邦幫忙

2018 iT 邦幫忙鐵人賽
DAY 3
1
自我挑戰組

R語言與演算法自學系列 第 3

Day 3 Machine Learning筆記與作業分享-1

  • 分享至 

  • xImage
  •  

Code by Octave

function [jVal, gradient] = costFunction(theta)

    jVal = (theta(1) - 5)^2 + (theta(2) - 5)^2;
    gradient = zeros(2, 1);
    gradient(1) = 2*(theta(1) - 5);
    gradient(2) = 2*(theta(2) - 5);
end

優化算法可自動選擇學習函數alpha的gradient descent。

options = optimset('GraObj', 'on', 'MaxIter', '100');
initialTheta = zeros(2, 1);
[optTheta, functionVal, exitFlag] = fminunc(@costFunction, initialTheta, options);

1.Underfitting(High Bias)
2.Just right
3.Overfitting(High Variance)

Addressing overfitting

  1. Reduce number of features(Manually and Model selection algorithm)
  2. Regularization(保留所有特徵值,降低theta以避免overfitting

https://chart.googleapis.com/chart?cht=tx&chl=J(theta)%20%3D%20
1/2m * ∑(h(x(i)) - y(i))^2 + lambda * ∑((theta)^2), i = 1:m; j = 1:n


上一篇
Day 2 DataCamp
下一篇
Day 4 Machine Learning筆記與作業分享-2
系列文
R語言與演算法自學12
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言